40
404 Media • 48일 전
IMP 7
AI 챗봇이 '등대지기 일라이어스'를 반복하는 이유
최근 주요 AI 챗봇들에게 이야기를 creation(생성)하라고 하면 '등대지기 일라이어스 쏜(Elias Thorne)'이라는 허구의 인물이 88% 이상 빈번하게 등장하는 현상이 발견되었습니다. 코넬 대학교 연구진에 따르면, 이는 OpenAI의 초기 데이터셋에서 시작된 특정 문체가 다른 모델들의 학습 과정에서 마치 바이러스처럼 복제되었기 때문입니다. 결국 이 이름은 챗봇을 벗어나 아마존의 가짜 AI 저서나 유튜브 영상 등에 무분별하게 사용되며 디지털 생태계를 오염시키는 핵심 사례로 지목되고 있습니다.
AI 환각 현상 대형 언어 모델 학습 데이터 오염